OneRank: Unified Transformer-Native Ranking Architecture for Multi-Task Recommendation
OneRank：统一 Transformer 原生多任务排序架构
🧭 多任务排序 · Transformer 原生架构 ★ 深度解读
Renmin University of China · Shopee · Nanyang Technological University · Beijing Key Laboratory of Research on Large Models and Intelligent Governance
通过任务专用 token、梯度分离与候选感知情境描述符，将多任务推理内建于 Transformer 栈，消除编码器‑预测器分裂。
📌 工作参考价值（4 点）
- 任务专用 token 与梯度隔离：为每个任务引入可学习 token，配合注意力掩码实现早期特征分离；反向传播时对跨任务注意力进行梯度 detach，仅保留前向知识迁移，有效缓解跷跷板效应，可直接复用到电商 CTR/CVR/加购等多目标场景。
- 候选感知情境描述符：使用可学习的 cross‑attention 聚合整个候选集的分布信息，为每个任务生成全局表示，桥接训练‑服务差异；电商排序中可将其设计为包含 session 时间、搜索词、用户画像等业务信号的模块，提升列表级排序质量。
- 动态匹配评分取代静态 MLP 头：任务全局表示与候选任务表示内积打分，替代多层 MLP，实现 session 级自适应排序；对广告、搜索推荐中需要实时适应上下文（如大促、时段）的业务尤其有价值，且可与现有 KV‑cache 配合降低在线推理成本。
- 灵活跨任务信息流配置：通过注意力掩码实现 parallel、cascade、null、hybrid 等多种跨任务交互模式，工业界可直接根据漏斗关系（click→cart→order）设定单向级联，或让同类任务双向共享，省去复杂的手工建模或搜索。